Skip to main content

REDMADMEDIA 網誌

回前頁
對Nvidia GPU更大的威脅要來了 - 谷歌第七代TPU - 銀發德財

對Nvidia GPU更大的威脅要來了 - 谷歌第七代TPU

· · 專欄: 銀發德財

谷歌的 TPU v7(代號 Ironwood)已正式發布,並將於未來幾週內上市,Ironwood v7專為更高性能 AI 工作負載而設計,尤其適用於大規模模型訓練和推理任務。

最關鍵的是,TPU v7對英偉達在 AI 硬體市場的統治地位構成了更重大的競爭威脅。

TPU v7 的峰值性能為 4,614 TFLOPS,與英偉達的旗艦 GPU(例如 B200 和 GB300)不相上下,這效能使得那些需要高運算能力,但又不想消耗過多能源的 AI 工作負載,極具吸引力。

Ironwood 的設計旨在顯著提高能效,據報道,其在 AI 任務中的能源效率比英偉達 GPU 高出 2-3 倍,這種效率轉化為更低的營運成本,尤其是在功耗至關重要的大規模部署中。

TPU v7 支援 9,216 個晶片無縫協作的配置,並利用了光路交換 (OCS) 等先進的互連技術。這種能力實現了高效的擴展,其性能優於傳統的GPU集群,後者在擴展過程中經常面臨通訊瓶頸。

個人認為,TPU v7最厲害的是,大大降低了總體擁有成本 (TCO),TPU v7 的 TCO 預計將比英偉達的 GPU 低約 30-41%,這項成本優勢源自於Google無需支付「英偉達稅」,即英偉達對其產品收取的高額利潤。因此,Google可以用相同的預算部署更多的 TPU 資源,從而增強其競爭優勢。

像Anthropic這樣的大型公司越來越多地在其AI模型中採用Google的TPU,這表明大多科企的偏好正在轉向能夠提供更好性能和成本效益的專用硬體,這便極可能進一步削弱輝達的市場份額。

一言以蔽之,TPU v7對英偉達在AI市場的GPU主導地位構成嚴峻挑戰,憑藉其卓越的性能、優異的能源效率和更低的整體擁有成本(這是關鍵!)Google正將其TPU定位為尋求優化AI基礎設施的企業的可行替代方案,足令輝達股價出現極大的下行壓力!

0 likes

推薦文章

山藥對糖尿病的改善作用與食用方法 - Mark哥醫師

山藥對糖尿病的改善作用與食用方法 - Mark哥醫師

山藥不僅是個「養顏聖品」,還能幫助改善糖尿病,這可真是讓人驚喜!它的獨特成分和藥用價值,在調節血糖方面發揮了大作用。而且,山藥的吃法也超多,既可以單獨吃,也可以和其他食材搭配,做出各種美味又養生的菜…

日本穗高連峰

日本穗高連峰

穗高連峰位於日本北阿爾卑斯山脈(飛驒山脈),這片山脈以其高聳的山峰、險峻的稜線以及壯麗的高山景色聞名,是經驗豐富的登山者與自然愛好者的天堂。 穗高連峰的主要山峰是奧穗高岳,最高…

香港樓市究竟是見底?還是在軟著陸進程中?

香港樓市究竟是見底?還是在軟著陸進程中?

常常聽到跟地產產業有關的人,像發展商銷售部主管、地產代理頭頭或地產投資名人等等,常把樓市「見底」掛在口中,「底」之不盡! 今年一月,長實集團執董趙國雄估計:「本港樓價已經見底,不過在供應量高的…

留言 (0)

還沒有留言,成為第一個留言的人吧!

發表留言

您必須登入才能留言。